Empowering Compact LLMs with Fusion of Layer-wise Exits for Recommendation
层退出融合增强紧凑 LLM 的判别式序列推荐
🧭 判别式 LLM 推荐 · 层退出动态融合 ★ 深度解读
The University of Queensland · Griffith University · Edith Cowan University · University of Notre Dame
在判别式 LLM 推荐中引入多层预测出口与连续路由器，以紧凑模型实现全库排序并逼近大模型精度
📌 工作参考价值（4 点）
- 判别式 LLM 排序范式可直接用于召回/粗排全库打分：用预训练 SASRec ID embedding 投影进 LLM，取 response token 表示做 softmax，避免自回归解码，单用户推理 6-9ms，适合线上候选集大但算力受限的场景。
- 多层 exit 融合是补偿小模型的有效 trick：在 compact LLM 每层后接预测头，融合不同深度分数，实验在 Toys/Beauty/Yelp 上以 1.7B/3B 模型超过部分 4B/8B E4SRec，说明深度集成可替代盲目上大模型。
- 连续 ReLU 路由 + target-k hinge loss 可按用户序列复杂度动态选择 1~k 个 exit，避免固定 top-k 对简单序列浪费、复杂序列不足；该路由仅需训练一个投影矩阵，无额外参数，便于线上轻量自适应推理。
- 三阶段冻结训练允许共享同一 backbone 训练多个不同 target-k 的路由器，用于不同设备算力预算（GPU/CPU/边缘），对电商多端部署有直接参考价值；Z-loss 和 load balancing 可保证混合精度训练稳定。